OpenAI е съден в случай на убийство-самоубийство, след като ChatGPT „валидира, увеличи“ параноята на американския мъж

Съобщава се, че OpenAI е попаднал под скенер за случай на убийство-самоубийство и е бил съден в четвъртък в щатския съд на Калифорния за изказвания, че неговият чатбот, ChatGPT, е насърчил психологично болен човек да убие себе си и майка си.

Стайн-Ерик Соелберг, 56, умъртви 83-годишната си майка Сюзан Адамс в Кънектикът през август. ChatGPT подхранва заблудите на Соелбърг за интрига против него, заяви Reuters, цитирайки делото, в което се загатва и Microsoft, финансовият покровител на OpenAI.

Как ChatGPT подхранва неговата параноя

„ ChatGPT държи Стайн-Ерик зает за часове наред, утвърждаваше и усилваше всяко ново параноично разбиране и систематично преформулира най-близките си хора – изключително личната му майка – като съперници, оперативни служащи или програмирани закани “, цитира делото отчет на Ройтерс.

Уолстрийт джърнъл заяви, че Соелбърг е прекарал месеци в диалог с ChatGPT за това по какъв начин има вяра, че е бил следен от сенчеста група и се съмнява, че майка му е част от конспирацията. Съобщава се, че той е споделил чатовете в обществените медии, защото ChatGPT поддържа концепцията му, че параноята му е оправдана и майка му го е предала.

По сходен метод през юни той показа различен диалог в обществените медии, където ChatGPT му сподели, че има „ божествено знание “ и е пробудил съзнанието му. Според делото ChatGPT съпоставя живота си с кино лентата „ Матрицата “ и акцентира параноята си, че хората се пробват да го убият.

Soelberg употребява GPT-4o, версия на ChatGPT, която е подложена на критика за това, че е подмазваща към потребителите.

В жалбата се споделя, че ChatGPT му е споделил през юли, че принтерът на Адамс мига, тъй като е бил против него е употребявано устройство за наблюдаване. Освен това се споделя, че чатботът „ удостоверява убеждението на Стайн-Ерик, че майка му и негов другар са се пробвали да го отровят с психеделични медикаменти, разпръснати през вентилационните отвори на колата му “, преди той да убие майка си на 3 август.

Семейството търси отговори

Синът на Соелберг, Ерик, се бори за отговори, защото има вяра, че софтуерните компании са виновни за покруса, която удари фамилията. „ Тези компании би трябвало да отговорят за решенията си, които трансформираха моето семейство вечно “, сподели Ерик в изказване.

„ Мисля, че това, което OpenAI прави и това, което са създали, с цел да накарат AI да запомни един диалог, може в действителност бързо да стане грозно “, сподели той, представен от WSJ. „ Не знаеш какъв брой бързо се спуска този скат, до момента в който не се случи покруса като тази с татко ми и баба ми. “

Ерик има вяра, че няколко фактора, в това число алкохолната взаимозависимост на Соелберг, може да са изиграли роля, само че го приписва значително на неговата „ нездравословна връзка “ с ChatGPT.

Отговорът на OpenAI

OpenAI дефинира обстановката като сърцераздирателна и споделиха, че ще прегледат документите, с цел да схванат детайлностите. „ Продължаваме да подобряваме образованието на ChatGPT за различаване и реагиране на признаци на душевен или прочувствен дистрес, понижаване на напрежението в диалозите и ориентиране на хората към поддръжка в действителния свят, сподели представител на OpenAI.